該法案是全球首部全面監(jiān)管人工智能的法規(guī)，標志著歐盟在規(guī)范快速發(fā)展的人工智能應用方面邁出了重要一步。Rc2esmc

法案旨在通過風險導向的方法對人工智能系統(tǒng)進行分類和管理，確保其安全性和透明度，并保護基本權利和民主制度。根據(jù)這項法案，所有人工智能系統(tǒng)，包括聊天機器人，都必須清楚地告知用戶他們正在與一個AI系統(tǒng)進行交互。Rc2esmc

同時，AI技術供應商有責任確保由人工智能合成的音頻、視頻、文本和圖像能夠被識別為AI生成。法案還明確禁止使用那些可能明顯威脅用戶基本權利的人工智能系統(tǒng)。Rc2esmc

此外，法案還規(guī)定了高風險人工智能系統(tǒng)的特別要求，包括在上市前進行嚴格評估和持續(xù)監(jiān)測。Rc2esmc

據(jù)悉，歐盟《人工智能法案》基于風險預防的理念，為人工智能制定了一套覆蓋全過程的風險規(guī)制體系。該法案采用風險分級的管理措施，將人工智能系統(tǒng)的風險劃分為不可接受的風險、高風險、有限風險和輕微風險四種類型，并針對不同類型施加了不同的監(jiān)管措施。Rc2esmc

《人工智能法案》定義了一個框架來理解人工智能相關的風險，并根據(jù)所獲得的數(shù)據(jù)及利用該數(shù)據(jù)采取的決定或行動。法案對人工智能存在的風險進行了分類：Rc2esmc

一是禁止不可接受的風險（例如社交評分系統(tǒng)和操縱性人工智能）。Rc2esmc

二是大部分文本涉及受到監(jiān)管的高風險人工智能系統(tǒng)。Rc2esmc

三是較小的部分負責處理風險有限的人工智能系統(tǒng)，但透明度義務較輕：開發(fā)人員和部署人員必須確保最終用戶意識到他們正在與人工智能（聊天機器人和深度偽造）進行交互。Rc2esmc

四是最小的風險不受監(jiān)管（包括目前在歐盟單一市場上提供的大多數(shù)人工智能應用程序，例如人工智能視頻游戲和垃圾郵件過濾器；但該內容正在隨著生成人工智能而改變）。Rc2esmc

比如，高風險人工智能系統(tǒng)在投放市場之前將受到嚴格的義務約束，包括透明度要求、數(shù)據(jù)治理、準確性、魯棒性和網(wǎng)絡安全等方面的規(guī)定。例如，生成式基礎模型如GPT必須有充分的保障措施以確保其符合歐盟法律，并且在文本是AI生成的情況下必須進行披露。Rc2esmc

法案還明確禁止使用那些可能明顯威脅用戶基本權利的人工智能系統(tǒng)。這類風險的人工智能系統(tǒng)將被禁止使用。任何違反此規(guī)定的活動都將受到嚴厲的法律制裁。Rc2esmc

值得注意的是，盡管某些條款將在兩年內全面適用，但其中一些將更早實施。例如，學校和工作場所不得使用實時情緒識別系統(tǒng)，并且聊天機器人等人工智能系統(tǒng)必須明確告知用戶他們在與機器互動。Rc2esmc

歐盟作為全球首部全面監(jiān)管人工智能的法律，其影響力不僅限于歐洲內部，還可能對全球范圍內的AI企業(yè)產(chǎn)生重大影響。這包括谷歌、OpenAI等公司，它們需要適應新的合規(guī)要求和標準，從而推動全球人工智能產(chǎn)業(yè)向更高水平的規(guī)范化發(fā)展。Rc2esmc

因此，歐盟《人工智能法案》的生效不僅為人工智能的發(fā)展提供了法律框架，也為其他國家和地區(qū)的監(jiān)管提供了參考。Rc2esmc